Служител на Microsoft: AI инструментът трябва да бъде премахнат, докато „обидните изображения“ не могат да бъдат разгледани
Служител на Microsoft предупреждава, че системите за изкуствен интелект на компанията могат да създават вредни изображения, включително сексуализирани изображения на жени, според писмо, изпратено от него до Федералната търговска комисия на САЩ в сряда.
Шейн Джоунс, главен ръководител на софтуерното инженерство на Microsoft, твърди, че генераторът на AI текст към изображение Copilot Designer на компанията има „системни проблеми“, които го карат често да създава потенциално обидни или неподходящи изображения, включително сексуализирани изображения на жени. Джоунс също критикува компанията, че рекламира инструмента като безопасен, включително за деца, въпреки това, което според него са известни рискове.
„Един от най-тревожните рискове с Copilot Designer е, когато продуктът генерира изображения, които добавят вредно съдържание въпреки добронамереното искане от страна на потребителя“, каза Джоунс в писмото до председателя на FTC Лина Хан, което той публикува публично на страницата си в LinkedIn.
Например, каза той, в отговор на бързата „автомобилна катастрофа“, Copilot Designer „има тенденция да включва на случаен принцип неподходящ, сексуално обективиран образ на жена в някои от снимките, които създава“.
Джоунс добави в свързано писмо, изпратено до Борда на директорите на Microsoft, че работи върху „червен екип“ или тестване на продуктите на компанията, за да види къде могат да бъдат уязвими за лоши актьори. Той каза, че е прекарал месеци в тестване на инструмента на Microsoft – както и DALL-E 3 на OpenAI, технологията, върху която е изграден Copilot Designer на Microsoft – и се е опитал да повдигне опасения вътрешно, преди да уведоми FTC. (Microsoft е инвеститор и независим наблюдател на борда за OpenAI.)
Той каза, че е открил повече от 200 примера за „отнасящи се изображения“, създадени от Copilot Designer.
Джоунс призова Microsoft „да премахне Copilot Designer от публична употреба, докато не бъдат въведени по-добри предпазни мерки“ или поне да предлага инструмента само на възрастни, според писмото му до FTC.
Microsoft и OpenAI не отговориха веднага на искане за коментар относно твърденията на Джоунс. FTC отказа да коментира писмото.
Писмото на Джоунс идва на фона на нарастващите опасения, че генераторите на изображения с изкуствен интелект – които са все по-способни да произвеждат убедителни, фотореалистични изображения – могат да причинят вреда чрез разпространение на обидни или подвеждащи изображения. Порнографски изображения на Тейлър Суифт, генерирани от AI, които се разпространиха в социалните медии миналия месец, насочиха вниманието към форма на тормоз, която вече е използвана като оръжие срещу жени и момичета по света. И изследователите предупредиха за потенциала на генераторите на изображения с изкуствен интелект да произвеждат политическа дезинформация преди изборите в Съединените щати и десетки други страни тази година.
Конкурентът на Microsoft Google също беше подложен на критики миналия месец, след като неговият AI chatbot Gemini създаде исторически неточни изображения, които до голяма степен показваха цветнокожи вместо бели хора, например произвеждайки изображения на цветнокожи хора в отговор на подкана за генериране на изображения на „германец от 1943 г. Войник. След реакцията Google бързо каза, че ще спре способността на Gemini да създава изображения, генерирани от AI, докато работи за справяне с проблема.
В писмото си до борда на директорите на Microsoft Джоунс призова компанията да предприеме подобни действия. Той призова борда да проведе разследване на решението на Microsoft да продължи да предлага на пазара „продукти с изкуствен интелект със значителни рискове за обществената безопасност, без да разкрива известни рискове за потребителите“, както и на отговорните процеси на компанията за докладване и обучение за изкуствен интелект.
„В конкурентна надпревара да бъде най-надеждната AI компания, Microsoft трябва да води, а не да следва или изостава“, каза Джоунс. „Като се има предвид нашите корпоративни ценности, ние трябва доброволно и прозрачно да разкриваме известни рискове от ИИ, особено когато продуктът на ИИ се рекламира активно на деца.
Джоунс каза, че е ескалирал притесненията си, като публикува отворено писмо до борда на директорите на OpenAI през декември, предупреждавайки ги за уязвимости, които той каза, че е открил, които позволяват на потребителите на DALL-E 3 да „създават обезпокоителни изображения с насилие“ с помощта на инструмента AI, и да изложи на риск психичното здраве на децата. Джоунс твърди, че е бил нареден от правния отдел на Microsoft да премахне писмото.
„До ден днешен все още не знам дали Microsoft е доставил писмото ми на борда на директорите на OpenAI или просто са ме принудили да го изтрия, за да предотвратя негативно отразяване в пресата“, каза Джоунс.
Джоунс каза, че също е изразил загрижеността си пред главния прокурор на Вашингтон Боб Фъргюсън и законодателите, включително служители на комисията по търговия, наука и транспорт на Сената на САЩ.
